WEFT: Scaling Tool-Use Post-Training for General-Purpose Agents
WEFT:通用智能体工具使用后训练的全系统扩展框架
🧭 Agent 工具使用后训练 · 全系统扩展与自进化 ★ 深度解读
East China Normal University · Fudan University · Shanghai Innovation Institute · Renmin University of China · Shanghai Qiji Zhifeng Co., Ltd
构建可扩展交互系统、执行驱动自进化与稳定训练,WEFT 在多个工具使用基准上超过同规模环境扩展基线。
📌 工作参考价值(4 点)
- 在构建电商工具调用训练环境时,不要只堆 API/MCP 数量;建立「执行证据→失败归因→修订环境/任务/校验器」的闭环。具体 trick:用状态 diff 和工具返回来做 verifier,先修环境 bug 再训模型,减少“模型背锅”。
- SFT 数据构造用 prefix-preserving rejection sampling:以原子任务(如“查商品→加购物车→下单”)为边界,失败只重采样当前原子任务的 attempt,保留已验证前缀和状态快照,提高长链路训练轨迹利用率。
- RL 中做 atomic-turn credit assignment:对每个原子任务组内做 group-relative 归一化,只对当前 turn 的 policy token 施加 advantage,避免 trajectory-level reward 把无关前缀也更新;对检测到重复/格式错误/接口违规的成功段,mask 正 credit。
- 部署层面,可用类似 MegaMCP 的共享服务+私有状态隔离:MCP/工具服务共享 Python 进程,数据库 copy-on-write 克隆,workspace 隔离,快照支持重试/候选采样,降低大规模 rollout 成本(upload 降 95%、内存降 77-95%)。